Vào thời Pháp thuộc, triều đại Vua Thành Thái. Năm 1899, Toàn quyền Đông Dương Paul Doumer ký nghị định ngày 21 tháng 11 năm 1899, cho hai đơn vị Quân đội Bảo hộ Pháp tại Hà Nội và Sài Gòn được thành lập 2 Toán Thiếu sinh quân.[2] Nhân số Thiếu sinh quân vào thời kỳ này, mỗi Toán chỉ có 10 người. Từ đó tại những nơi khác các Toán Thiếu sinh quân lần lượt được thành lập. Nhân số Thiếu sinh quân được thu nhận cũng được tăng lên từ 10 đến 20 rồi 50 cho mỗi Toán. Khi nhân số của từng nơi tăng lên thành số nhiều, các Toán được đổi thành Trường.

Ở Miền Bắc có các trường Thiếu sinh quân: Móng Cái, Núi Đèo, Đáp Cầu. Phủ Lạng Thương, Việt Trì, Hà Nội. Miền Trung có trường Thiếu sinh quân Huế (Ban đầu tọa lạc ở thành Mang Cá, sau dời vào Thành nội Huế). Miền Nam có các trường Thiếu sinh quân Đông Dương (tại Vũng Tàu), Thủ Dầu Một, Đa Kao (tại Gia Định), Thành Ô Ma[3] (Sài Gòn), Đà Lạt, Ban Mê Thuột và Mỹ Tho. Về phương pháp huấn luyện và điều hành của các Trường, đều rập theo khuôn mẫu của các Trường Thiếu sinh quân của Quân đội Pháp tại nước Pháp.

Vào thời điểm đầu thập niên 1950 trên toàn Việt Nam có 7 trường TSQ phân phối như sau:

1. - Trường TSQ Đệ nhất Quân khu ở Gia Định
2. - Trường TSQ Đệ nhị Quân khu ở Huế
3. - Trường TSQ Đệ tam Quân khu ở Hà Nội
4. - Trường TSQ Đệ tứ Quân khu ở Ban Mê Thuột
5. - Trường TSQ Móng Cái (Hải Ninh) dành cho sắc dân Nùng
6. - Trường TSQ Đà Lạt của Quân đội Pháp
7. - Trường TSQ Đông Dương của Quân đội Pháp ở Cap Saint Jacques (Vũng tàu)

Năm 1954, sau Hiệp định Geneve. Các trường Thiếu sinh quân miền Bắc được di chuyển vào Nam sáp nhập vào trường Thiếu sinh quân Mỹ Tho. Tuy nhiên, giai đoạn này rất căng thẳng vì Phái bộ Viện trợ Hoa Kỳ không có ngân khoản dự trù dành cho các trường Thiếu sinh quân, nên đã đề nghị với Bộ Quốc phòng Việt Nam Cộng hòa cho giải tán tất cả sáu trường ở miền Nam, chỉ giữ lại trường Đông Dương ở Vũng Tàu. Nhưng vào giờ phút chót, Tổng thống Ngô Đình Diệm và Trung tướng Lê Văn Tỵ quyết định duy trì các trường Thiếu sinh quân này.

Cuối tháng 5 năm 1956, Tổng thống Diệm chỉ thị cho tướng Lê Văn Tỵ Tổng Tham mưu trưởng Quân đội, tập trung sáu trường hiện hữu (gồm 1.350 học viên) và di chuyển tất cả về Vũng Tàu nhập vào trường Đông Dương. Ngày 1 tháng 6 năm 1956, Thiếu sinh quân hợp nhất, đồng thời chính thức với danh xưng "Trường Thiếu sinh quân Việt Nam" và trở thành một Quân trường có tầm vóc Quốc gia. Ngân khoản đài thọ cho trường Thiếu sinh quân được trích ra từ ngân khoản của quân đội.